2.1)　💫 가랏, [ 신경망 ] !!

신경망을 배우기전, 앞 장에서 배운 퍼셉트론에 대해 한 번더 정리를 하겠다.

📌[그림 2-1]

퍼셉트론

• 인공신경망의 한 종류이다.
• 다수의 입력($x1$, $x2$) 과 가중치($w1$, $w2$)를 곱하여 그 값에 편향(bias)를 더한 값이 어느 임계치 값($\theta$)을 초과하면 활성화 함수를 통과한 출력값을 내보낸다.
• 가중치는 각 신호의 영향력을 제어한다.
• $b$ 는 편향을 나타내는 매개변수로 뉴런을 얼마나 쉽게 활성화되느냐를 제어한다.(편향의 입력신호는 항상 1이다)

[그림 2-1] 을 수식으로 나타내면 [식 1.2]처럼된다.

📌[식 1.2]

[식 1.2]를 좀더 간결한 형태로 다시 작성해보자, 그럼 [식 2.2], [식 2.3] 으로 표현할 수 있다.

📌[식 2.1]

📌[식 2.2]

활성화 함수

[그림 2-1]에서 활성화 함수가 등장한다. 이때 활성화 함수(activation funcion)는 입력 신호의 총합을 출력 신호로 변환하는 함수로 입력 신호의 총합이 활성화를 일으키는지를 정하는 역할을 한다.이러한 이유로 위에 $h(x)$라는 함수는 활성화 함수이다.
그럼, 다시 [식 2.1]를 다음과 같이 두개의 식으로 나눌 수 있다.

📌[식 2.3]

📌[식 2.4]

[식 2.3]가중치가 달린 입력 신호와 편향의 총합을 계산하고, 이를 a라 한다. 그리고[식 2.4]는 a를 함수 $h()$ 에 넣어 y를 출력하는 흠름이다.
지금까지와 같이 뉴런을 큰원( O )으로 그려보면 [식 2.3]과 [식 2.4]는 [그림 2-2]처럼 나타 낼 수 있다.

📌[그림 2.4]

기존 뉴런의 원을 키우고, 그 안에 활성화 함수의 처리과정을 명시적으로 그려 넣었다.

• $a$는 가중치 신호를 조합한 결과로 노드가 된다.

[식 2.1]과 같은 활성화 함수는 임계값을 경계로 출력이 바뀌는데, 이런 함수를 계단 함수라고 한다.

📌[그림 2.5]

위 그림이 계단 함수의 그래프인데 보면, 0보다 크면 전부 1, 0 보다 작으면 전부 0 이다.
이는 너무 극단적이기 때문에 또 다른 활성화 함수인 시그모이드 함수를 사용한다.

신경망

📌[그림 2-2]

신경망을 그림으로 나타내면 [그림 2-2]처럼 된다. 그림에서 처럼 입력층, 은닉층, 출력층으로 구성되어 있다. 입력층에서 출력층 방향으로 차례로 0층, 1층, 2층 이라 하겠다.
아직까지는 앞 장에서 배운 다층 퍼셉트론과 크게 달라 보이지 않는다.